Lâm Sĩ Hoằng là người Nhiêu châu (饒州, nay gần tương ứng với Thượng Nhiêu, Giang Tây). Năm 616, ông theo đồng hương Thao Sư Khất (操師乞) nổi dậy chống triều đình Tùy. Thao Sư Khất tự xưng là Nguyên Hưng vương và cho Lâm Sĩ Hoằng làm đại tướng. Cũng trong năm đó, Tùy Dạng Đế phái Lưu Tử Dực (劉子翊) đi đánh Thao Sư Khất, Thao bị trúng tên tử trận. Lâm Sĩ Hoằng đã thống soái nghĩa quân giao chiến với quân Tùy tại hồ Bà Dương, giết chết Lưu Tử Dực. Nghĩa quân của Lâm Sĩ Hoằng phát triển lên đến hơn 10 vạn người. Khoảng tết năm 617, Lâm Sĩ Hoằng xưng là 'Sở Đế'2 hoặc 'Nam Việt Vương'1, chiếm một số quận thuộc Giang Tây ngày nay. Quý tộc địa phương đã giết hại nhiều (quận) thái thú và (huyện) lệnh để quy phục ông. Vào thời điểm tối cường, lãnh thổ do ông kiểm soát trải dài từ Cửu Giang (九江, nay thuộc Cửu Giang, Giang Tây) đến Phiên Ngung (番禺, nay thuộc Quảng Châu, Quảng Đông).